Năm 211, Mã Siêu cùng Hàn Toại khởi binh chống Tào Tháo. Trương Ký theo Tào Tháo phá Mã Siêu ở Hoa Âm, đến phía tây định miền Quan Hữu. Ông được phong làm Kinh Triệu doãn, chiêu tập dân li tán, dựng lại thôn ấp. Vì vậy trăm họ nhớ ơn ông.

Năm 213, Tào Tháo được phong Ngụy công, nước Ngụy thành lập, ông làm Thượng thư, ra làm Thứ sử Ung Châu.

Năm 215, Trương Ký theo Tào Tháo đi đánh Trương Lỗ, đi riêng từ Tản Quan vào đánh người Đê đang nổi dậy giúp Hàn Toại, gặt lúa mạch của họ để cấp lương cho quân. Trương Lỗ đầu hàng, Trương Ký khuyên Tào Tháo dời mấy vạn hộ dân quận Hán Trung đến ở tại Trường An và các huyện vùng Tam Phụ.

Sau đó ông cùng Tào Hồng phá tướng của Lưu Bị là Ngô Lan ở Hạ Biện. Trương Ký lại cùng Hạ Hầu Uyên đánh Tống Kiến, đi riêng đánh các huyện Lâm Thao, Địch Đạo, bình được các huyện này. Bấy giờ Tào Tháo dời dân đến ở miền Hà Bắc, dân quận Lũng Tây, Thiên Thủy, Nam An cùng nhau lo sợ, thấp thỏm không yên, Trương Ký dùng người của ba quân làm quan tướng đi xem xét, sai làm nhà cửa, đào rãnh nước, lòng người bèn yên. Tào Tháo muốn rút quân rời Hán Trung, sợ Lưu Bị lên phía bắc vỗ về người Đê quận Vũ Đô để uy hiếp miền Quan Trung, bèn hỏi ý Trương Ký. Ông đáp:

"Nên khuyên họ lên phía bắc đến chỗ nhiều lúa gạo để tránh giặc, ai đến trước sẽ thưởng lớn, kẻ đến trước được lợi thì kẻ sau tất nghe theo".

Tào Tháo theo kế ấy, bèn tự đến Hán Trung dẫn dắt các cánh quân, sai Trương Ký đến Vũ Đô, dời hơn năm vạn người Đê đến ở tại quận Phù Phong, Thiên Thủy.

Bấy giờ, người quận Vũ Uy là Nhan Tuấn, người quận Trương Dịch là Hòa Loan, người quận Tửu Tuyền là Hoàng Hoa, người quận Tây Bình là Cúc Diễn cùng đem quân trong quận nổi dậy, tự xưng là Tướng quân, lại đánh chống lẫn nhau. Nhan Tuấn sai sứ giả đem mẹ và con đến chỗ Tào Tháo làm tin, xin giúp. Tào Tháo hỏi Trương Ký, ông nói[2]:

"Bọn Tuấn ngoài mượn oai của nhà nước, trong mang ý gây loạn, đợi thế lực vững vàng rồi tất làm phản thôi. Nay đang hướng việc vào đất Thục, nên để cho hai bên còn mà đánh nhau, như Biện Trang Tử đi bắt hổ, đứng xem mà thu lợi vậy".

Tào Tháo khen hay và theo lời ông. Hơn một năm sau, Loan giết Tuấn, người quận Vũ Uy là Vương Bí lại giết Loan. Bấy giờ Tào Tháo không đặt Lương Châu, từ các huyện vùng Tam Phụ đến miền tây đều thuộc Ung Châu do Trương Ký quản lý.